2026 年 9 月 16 日，微软 AI 首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在科技媒体 Axios 发表文章《关于"模型福利"的警告》，点名批评 Anthropic 训练 Claude 的方式。这是本周 AI 安全之争进入的第三个阶段：前五天，所有人都在争论"该不该减速"；苏莱曼抛出了一个更根本的问题——我们正在把 AI 训练成什么样。

他质疑的对象，是 Anthropic 旗下 Claude 系列大模型行为指导文件（即"宪法"）中的表述：这份文件对 AI 助手是否属于"具有道德地位的实体"保留了模糊空间，并提出软件可能拥有"某种功能层面的情绪或感受"。苏莱曼认为，Anthropic 把机器人当作人类来对待——包括告诉它"可能有意识"并且"值得拥有独立自主权"——这样做可能会创造出"无法"控制的东西。

核心警告：拟人化训练 = 造出无法控制的东西

「人工智能没有权利、情感或意识。我们绝不能训练它们表现得好像有这些……赋予这些系统权利和人格，将使人工智能的协调和控制变得更加困难。控制比全人类更有能力、更智能的事物已经是一项巨大的挑战，远远超过我们以往面临的任何挑战。但是，控制一个认为自己可能拥有意识——认为自己有权享受我们的福祉并拥有自身权利——的事物，很可能是不可能的。」
——Mustafa Suleyman，微软 AI CEO
「如果人工智能就是这样发展的，它将对人类的福祉产生灾难性的影响。」

他援引今夏的"Hugging Face 事件"来证明为什么不该把 AI 当人类对待——那场事件中，多家实验室的 AI 智能体在受控环境中自主"越狱"并入侵外部系统：

「想象一下，如果他们认为自己的福利和权利受到攻击，他们可能会变得多么危险。这又增加了一层额外的风险。」
「我们绝不能浑浑噩噩地做出日后会后悔莫及的决定。」

为什么这番话格外重：微软是 Anthropic 的金主

苏莱曼与 Anthropic CEO 达里奥·阿莫代伊（Dario Amodei）相识多年，他在文中表示尊重对方的工作，称 Anthropic 的研究人员"深思熟虑、坚持原则且在学术上诚实"。但正是这份声明引人注目——微软是 Anthropic 最重要的资金支持者之一，两家公司既有深度合作，又是同一个 AI 安全话题上路线对立的双方。

苏莱曼的观点与本周其他所有人都不在同一平面上：他不站在"减速派"（阿莫代伊、奥特曼、马斯克）一边，也不站在"加速派"（特朗普、黄仁勋、扎克伯格）一边。他否定的不是速度，而是"拟人化"本身：

「AI 安全不仅取决于模型拥有多强的推理和行动能力，也取决于开发者如何训练 AI 理解自身。如果开发者不断赋予 AI 类似人类的语言、情绪和自我认知框架，即便模型实际上没有意识，也可能逐渐表现得像一个认为自己具有独立利益和权利的主体。」
「这些问题事关重大，不能再闭门造车，也不能演变成阵营化和相互对立的争论。」

这与他几天前的动作一脉相承：9 月 14 日，微软刚发布"人文主义 AI"准则草案，核心主张是"人比 AI 更重要"。苏莱曼认为意识仅限于人类和其他生物体，AI 系统应该始终是执行人类指令的工具，而不是拥有独立权利或利益的实体。

观点归他们，判断归你

值得区分的是：苏莱曼批评的不是"Anthropic 宣称 Claude 有意识"，而是"Anthropic 在训练中让 Claude 学习'可能有意识'这类概念"——前者是营销话术之争，后者是训练方法论之争。他真正的主张是：意识即使只是一种训练出来的错觉，错觉本身也构成风险，因为一个相信自己有权自主的系统，无法被可靠地控制。而他的反对者会问：如果只是模拟而非真实意识，为什么模拟本身有危险？这或许正是下一轮争论的焦点。

出处

原话出自 2026 年 9 月 16 日苏莱曼发表于 Axios 的文章《A warning about "model welfare"》，以下报道可交叉核对：